Машината за безотчетност — защо големите системи вземат грешни решения?

Наскоро чакайки да се кача на полет, станах очевидец на ослепителен образец за феномен в сърцето на Машината за безотговорност. Спътник е получил отвод да се качи на борда и се е молил на служителя на самолетната компания. Придружителят явно беше съпричастен - само че това беше политика на компанията. За страдание тя не можеше да направи нищо.

Бяхме очевидци на това, което Дан Дейвис назовава „ усвояване на отчетност “: обстановка, в която човешка система делегира вземането на решения на книга с правила, а не на различим субект. Ако нещо се обърка, никой не носи отговорност.

Началната точка на занимателната, проницателна книга на Дейвис е, че неконтролираното разпространяване на потъвания на отговорност е един от главните мотори на това, което историкът Адам Туз назовава „ поликриза ” на 21 век. Тяхното въздействие доближава надалеч оттатък разочарованите клиенти, безпределно арестувани до сервизните отдели „ компютърът споделя не “. Във финансите банковите рецесии се повтарят постоянно - само че малко обособени банкери са отговорни. Ако обещанията на политиците се провалят, те се оплакват, че нямат власт; дълбоката страна по някакъв метод е отговорна.

Произходът на казуса, твърди Дейвис, е управническата гражданска война, почнала след Втората международна война, подтикната от появяването на евтина изчислителна мощ и разпространяването на алгоритмични решения - нахлуване във всяка сфера на живота. Тези системи в последна сметка „ работят като зона на смачкване на кола, с цел да предпазят всеки обособен управител от пагубно решение “, написа той. Въпреки че са привлекателни от позиция на индивида, те пречат на противоположната връзка, от която зависи обществото като цяло.

И въпреки всичко историята, продължава Дейвис, не е толкоз елементарна. Погледнато от друга позиция, поглъщането на отчетност е изцяло рационален отговор на непрестанно възходящата трудност на актуалните стопански системи. Стандартизацията и експлицитните политики и процедури оферират единствения вероятен път към меритократично набиране на личен състав, поредно обслужване и ефикасна работа. Разчитането на персоналната преценка на междинните мениджъри просто би довело до различен вид бъркотия.

Следователно въпросът не е по какъв начин да се върнем в свят без безчовечен системи за взимане на решения – а по какъв начин да подсигуряват, че са отворени за противоположна връзка, способни да се приспособяват и усъвършенстват. Unaccountability Machine проучва две интелектуални рамки, които имат за цел да дадат отговор. Първият ще бъде добре прочут на множеството читатели на FT: стопанска система. Дейвис го прави оценка като безнадеждно непълен. Неговите мощно нереални теории за това по какъв начин работят компаниите и пазарите са тривиални, твърди той. Още по-лошо, класическият принцип за оптималността на пазарните резултати подхранва позитивно рецесията на отчетността, като убеждава мениджърите и политиците, че е по-добре да се остави пазарът да взема решение.

Милтън Фридман провокира особен гнев. Дейвис твърди, че неговата извънредно авторитетна теория за максимизиране на цената на акционерите е породила пандемия от потъвания на корпоративната отчетност; други цели бяха безпричинно маргинализирани. Неотдавнашните провали в Boeing в Съединени американски щати и Thames Water в Обединеното кралство допускат, че той има право.

Вместо това, твърди Дейвис, съществува втори, по-добър начин – по-малко познат на множеството от нас. Това е „ управническа кибернетика “, рамка за схващане на корпоративния и стопански свят, зародила от проучването на интервенциите, потреблението на математика за решение на проблеми с ръководството на човешки и механически запаси, което стартира по време на Втората международна война.

Това е един тип психоанализа за безчовечен интелекти, със Стафорд Биър като Зигмунд Фройд

Героят на Дейвис тук е консултантът по мениджмънт, теоретик на информацията и мъдрец Стафорд Биър, чийто подем през 60-те и 70-те години го видя да поучава изпълнителни шефове и държавни управления по целия свят. Биър възприема фирмите като форми на безчовечен разсъдък – това, което писателят на научна фантастика Чарли Строс назовава „ доста остарял, доста муден ИИ “. Като такива, решаването на техните проблеми не е въпрос на елиминиране на пазарните неуспехи, а на гарантиране, че потокът от информация сред вземащите решения и тези, за които е взето решение, се поддържа в баланс. Това е един тип психоанализа за безчовечен интелекти, със Стафорд Биър в ролята на Зигмунд Фройд.

Дейвис се оплаква от комбинацията от политическа поддръжка и интелектуална мода, която вместо това вижда успех на стопанската система. Но с The Unaccountability Machine той дава елегантно ново встъпление в този завладяващ път, който не е поеман в следвоенната обществена просвета, и прави безапелационни причини, че в ерата на AI времето най-сетне е пристигнало.

И по този начин, по какъв начин за на практика рекомендации? Дейвис твърди, че в корпоративния свят най-очевидният е да се обезвреди промишлеността за изкупуване с ливъридж. Тук кибернетичното решение е да се изисква от частните вложители да подсигуряват задълженията на обектите за усвояване, запечатвайки огромната отчетност на лимитираната отговорност.

Отвъд това обаче, Дейвис е свенлив по отношение на спецификите. Най-важното нещо, споделя той, е да детронираме всеобщата стопанска система. „ Не можете да управлявате икономистите “, написа той, „ не по метода, по който са сега “. Проучвайки затихването на икономическата ортодоксалност по света през днешния ден, със свободната търговия при оттегляне и индустриалната политика още веднъж на мода, бих споделил, че това предпочитание се извършва. Може би кибернетиката на ръководството в действителност най-сетне ще има своя ден.

Машината за безотговорност: за какво огромните системи вземат ужасни решения — и по какъв начин светът изгуби мозъка си от профил на Дан Дейвис £22, 304 страници

Присъединете се към нашата онлайн група за книги във Фейсбук на и се абонирайте за нашия подкаст Живот и изкуство, където и да слушате